Eigenvectors and Eigenvalues

Eigenvector: nonzero vector $x \in R^{n}$ : $A x = λ x$ , 0이라면, $λ$ 를 어떻게 잡아도 성립하게 되므로 안된다.

Eigenvalue: $λ$ of $A$

$A$ 는 square matrix: $A \in R^{n \times n}$

Matrix - vector 곱은 보통 vector의 크기와 방향을 동시에 변화시키지만, Eigenvector의 경우에는 크기만 변화하는 경우이다. 즉, 방향은 동일하다.
Computation에서, 연산의 횟수가 행렬곱에 비해 줄어들게 되므로 성능이 향상된다.
- $det (A) = \prod_{i = 1}^{n} λ_{i}$
- $t r (A) = \prod_{i = 1}^{n} λ_{i}$
서로 다른 eigenvalue의 eigenvector에 대하여, 그 eigenvector들은 서로 Linear Independent하다.

Rewritten

$(A - λ I_{n}) x = 0$
$x$ : nonzero, 따라서 Col $(A - λ I_{n})$ 가 linear dependent 하여야 한다. Linear Independent하다면, trivial solution 말고 해가 존재하지 않게 된다.

Null Space

Eigenspace of A corresponding to $λ$ .
The set of all solutions of equation: $(A - λ I_{n}) x = 0$

정확히는, $A x = 0$ 을 만족하는 set of all solutions를 null space of $A$ 라 한다.
즉, $x$ 는 row vector in $A$ 에 orthogonal 해야 한다. Linear dependent한 행이 존재한다는 것은, trivial solution을 제외한 이를 만족시키는 해가 존재한다는 의미로, 이는 곧 eigenvector가 된다.

$A \in R^{n \times n}$ 일때, Nul $A$ 는 Subspace of $R^{n}$ 이다.
즉, $n = d im (R o w A) + d im (N u l A)$ 가 성립한다.
$d im (Nul A)$ 는, Linear Independent하지 않은 row 혹은 column의 개수라고 할 수 있다.

서로 다른 eigenvalue에 해당하는 eigenvector들끼리는 Linear Independent하기 때문이다.

$d im (R o w A) = n$ 인 경우는 linear indendent하여, trivial solution만 존재하는 경우이다.

$N u l A = (R o w A)^{⊥}$
$N u l A^{⊤} = (C o l A)^{⊥}$

Characteristic equaton

To find eigenvalue: $λ$
$d e t (A - λ I_{n}) = 0$

steps

If $(A - λ I_{n}) x = 0$ has nontrivial solutionm, columns of $(A - λ I_{n})$ must be NonInvertible.
If invertible, $x$ can not be nonzero vector.
NonInvertible == linearly dependent.
$d e t (A - λ I_{n}) = 0$

solution is not unique, thus $A - λ I$ has linearly dependent columns.